Débat : l’intelligence artificielle peut-elle accompagner les personnes en deuil ?

Le débat sur ChatGPT et les IA génératives n’en finit pas de rebondir, à travers les nouvelles applications qu’il suscite à peine quelques mois après sa mise en ligne. Un récent documentaire d’Envoyé spécial sur France 2 (27 avril 2023) présentait justement une application qui utilise GPT-3 et permet à l’utilisateur de recréer un dialogue avec des personnes disparues.

"Project December (Simulate the Dead)" est sans doute un cas extrême d’usage d’un agent conversationnel issu de GPT-3 mais nous dit beaucoup du manque de repères des sociétés dites occidentales pour faciliter le deuil de manière collective et encadrée dans le temps comme l’ont fait les civilisations qui nous précèdent.

Discuter avec nos chers disparus

"Project December" permet à quiconque, pour 10 dollars, d’ouvrir un compte et de discuter avec un programme d’intelligence artificielle (breveté) qui simule les propos d’une personne décédée pour un maximum de cent échanges et une durée d’une heure.

Il faut pour cela renseigner un long questionnaire qui comporte deux grandes rubriques : identité de la personne (nom, surnom, dates, lieux, professions et même nom du chien si nécessaire), traits de personnalité (décrits de façon très binaire : ex : sûr/confiant/stable vs soucieux/nerveux/perturbé) auxquelles s’ajoute un extrait de texte produit par ces personnes décédées.

Le reportage d’Envoyé spécial montre ainsi un homme qui vient de perdre sa mère et qui pose chaque jour des questions à son avatar synthétique, questions qu’il n’avait pas pu lui poser avant son décès.

Pour les besoins du reportage, le créateur de l’application organise aussi, en compagnie du journaliste, un dialogue avec l’agent conversationnel au-dessus de la tombe du philosophe, poète et naturaliste américain Henry David Thoreau en utilisant une de ses citations les plus célèbres : "le gouvernement le meilleur est celui qui gouverne le moins", conforme à son idéologie libertarienne prônant toujours "moins d’état" – une idéologie qui est aussi celle de la Silicon Valley.

Questionné artificiellement via l’application sur les usages toxiques éventuels de l’outil "Project December", l’avatar simulé de Thoreau répond que toute la responsabilité repose sur l’utilisateur, comme dans le cas d’un constructeur automobile qui ne peut pas être considéré comme responsable des comportements des mauvais conducteurs.

Un mépris des processus de deuil ?

Le solutionnisme technologique nommé ainsi par le chercheur Evgeny Morozov, dans son élan disruptif, semble balayer toute pensée un tant soit peu argumentée des conséquences psychiques ou culturelles d’un tel traitement de la relation avec les morts.

Il méprise les enjeux anthropologiques des processus de deuil et toutes les connaissances sur ce processus développées à la fois par la psychologie et par l’étude des traditions.

Si la psychanalyse considère le deuil comme un processus psychique par lequel une personne parvient à se détacher de la personne disparue et à donner du sens à cette perte, les fêtes des morts dans les traditions anciennes contribuent à un processus similaire, redonner un sens à la vie.

Prenons l’exemple de la fête des Morts au Mexique : elle dure deux jours, et consiste à visiter la tombe où reposent les défunts de la famille, à faire un repas autour d’elle, en musique. Selon les cas, une veille est organisée durant toute la nuit. À cette occasion, les cimetières sont remplis de familles, d’une grande quantité de fleurs orange et de bougies. Tout cela crée une ambiance particulièrement vivante. Les familles installent aussi provisoirement un autel à la maison avec les portraits des défunts, des fleurs, de la nourriture, des bougies, etc.

Trois dimensions sociales et psychiques ressortent de ces rituels :

1. la fête des morts – le deuil – est une invitation collective,

2. le contact recherché avec les défunts n’a rien de spiritiste, on ne pose pas de questions précises

3. la fête des morts a une durée bien délimitée.

Ces trois aspects font comprendre le soin apporté à la santé mentale individuelle et collective des sociétés. Le souvenir des morts se réalise dans un cadre de rencontres sociales et de protocoles qui aident à l’ancrage dans la vie.

Un deuil sans intermédiaire

Dans nos sociétés occidentales, le christianisme et les thérapies ont pris en charge ce processus de deuil sous des formes déjà affaiblies. Les rituels chrétiens ont tendance à s’épuiser – en 2018, 48 % des Français souhaitent une cérémonie religieuse lors de leur décès – bien que le prêtre continue à jouer un rôle d’intermédiaire-clé, même pour les non-croyants. Les thérapeutes, eux, effectuent ce travail contre rémunération, tandis que le personnel médical se retrouve en situation de gérer ces moments de deuil bien au-delà de ses fonctions.

Par contraste, l’application "Project December" ne semble pas endosser la moindre responsabilité lorsqu’elle place les personnes en situation de relation solitaire avec des conversations simulant les pensées de la personne décédée. S’il y a bien une forme de médiation – en l’occurrence, celle de l’intelligence artificielle –, celle-ci sort de tout cadre collectif, au risque d’amplifier l’espace des fantasmes.

Chacun est laissé à sa souffrance, à ses peurs, que l’agent conversationnel doit obturer ou encourager par des réponses, toujours très banales. L’usager témoignant dans le reportage d’Envoyé spécial raconte sa vie ordinaire ou exprime ses sentiments à sa mère. Il lui parle comme si elle n’était pas décédée, ce qui fait craindre à ses enfants qu’il reste enfermé dans cette "relation".

Or, dans ces rites de passage, les mots doivent être choisis prudemment pour aider à retrouver une place, la sienne et celle de la personne décédée. C’est pour cette raison que des intermédiaires sont mobilisés dans toutes les traditions. Même si l’usager n’est pas dupe et que l’application l’encourage à s’exprimer, elle tend à éliminer les médiateurs humains, sans filet de sécurité : une façon risquée d’"ubériser" les prêtres, les chamanes et les thérapeutes…

Les nécessaires temps de silence

Dans les rites ou la thérapie du deuil, des temps de silence s’imposent. Les rituels établissent une période précise consacrée au deuil ou à la commémoration des décédés, ce qui libère la vie quotidienne de cette relation. L’IA à base de GPT-3 ne laisse jamais l’utilisateur en silence, c’est un bavard impénitent, une machine à réponses. Elle n’est pas capable d’accompagner dans une écoute profonde, mais tourne, même en boucle, pour pallier à l’absence, le vide insupportable qui est au fond le plus grand drame du deuil.

L’enfermement solitaire dans un dialogue simulé, fondé sur quelques indices réalistes en utilisant de modèles statistiques probabilistes de la langue, a quelque chose d’obscène : il amplifie encore nos tendances commercialement encouragées à vivre dans un monde du "fake", fondé sur des trames narratives articulées aux codes publicitaires.

Une fois de plus, ce sont les artefacts (les interfaces et les algorithmes) qui sont supposés combler un manque criant d’intersubjectivité, de lien social, de dynamique d’échanges authentiques. Ces objets de substitution deviennent cependant critiques dans les cas de deuils et ne devraient pas être manipulés sans précaution. Les agents conversationnels de type GPT prospèrent cependant sur l’incapacité de nos sociétés dites rationnelles à fournir des repères sur une question si fondamentale pour l’âme humaine comme le soulignait l’anthropologue Benedict Anderson.

Des applications comme Project December reflètent un laisser-faire anti-institutions que l’on rencontre dans toutes les firmes de la Silicon Valley à travers leur slogan "Rough Consensus and Running Code", expression de John Perry Barlow dans son "manifeste pour l’indépendance du cyberspace" de 1996.

Selon cette doctrine, les décisions de développement des applications, des normes, des services relèvent d’un consensus vague entre les parties prenantes et la production du code ne doit jamais s’arrêter, facilitant les innovations disruptives qui n’anticipent pas leurs conséquences sociales et culturelles.

Ce désencastrement de l’IA vis-à-vis des principes sociaux et organisationnels et sa prétention à tout refonder sur la base de la puissance de ses calculs probabilistes qui optimisent tout, se retrouvent ici dans ce jeu avec l’esprit des morts. On jongle avec les relations avec les morts comme on jongle avec les mots.

Comment réguler ce "running code" irresponsable dès lors qu’il est si aisé à reproduire et que les frontières des états ne sont en rien suffisantes pour freiner son adoption immédiate dans tous les pays, sans respect pour aucune législation existante ?

Seuls les grands ensembles institutionnels qui sont aussi des grands marchés comme l’Europe ont la puissance nécessaire pour obliger toutes ces IA et leurs applications à demander une "autorisation préalable de mise sur le marché", comme cela se fait pour la plupart des produits de l’industrie, de l’alimentation aux médicaments, en passant par l’automobile. L’IA Act en cours de validation en Europe tout comme l’administration Biden doivent prendre la mesure de ces enjeux anthropologiques dans leurs tentatives de régulation, puisque même nos relations avec les morts peuvent en être affectées, alors qu’elles sont constitutives de notre sensibilité humaine.

Dominique Boullier, Professeur des universités émérite en sociologie. Chercheur au Centre d'Etudes Européennes et de Politique Comparée, Sciences Po et Rebeca Alfonso Romero, Doctorante en géographie culturelle, Sorbonne Université

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

Crédit image : Shutterstock/ Sheri Armstrong